پدر بزرگش، میرزا غلامعلی، خوشنویس، پدرش طبیب و مادرش شاعر بود. وی ۴ خواهر و برادر داشت. او در همان محل به مدرسه رفت و در سالهای تحصیلات ابتدایی علاقه زیادی به ریاضیات بروز داد و با خواندن جبر و هندسه در دوران متوسطه، علاقه وی به ریاضیات بیشتر شد.
مصاحب علاوه بر ریاضیات، زبانهای عربی و فرانسوی و انگلیسی را نیز در حد عالی فرا گرفت. وی همچنین به زبانهای روسی و آلمانی نیز در حد استفاده از منابع آشنایی داشت.
وی در سال ۱۳۱۶ ازدواج کرد و برای ادامه تحصیل به فرانسه رفت. پس از بازگشت، تدریس را در دانشسرای عالی به طور جدی در سال ۱۳۲۰ آغاز نمود. در سال ۱۳۲۴ برای تکمیل تحصیلات به انگلستان رفت و در سال ۱۳۲۷ به اخذ درجه دکتری در ریاضیات از دانشگاه کمبریج نایل آمد و در همین سال به عضویت انجمن ریاضی‌دانان انگلیس نیز درآمد. وی در انگلستان شاگرد خاص برتراند راسل، ریاضیدان و فیلسوف نامدار انگلیسی بود.
مصاحب پس از بازگشت مشاغل عمده‌ای را در وزارت علوم و آموزش عالی عهده دار شد که مهمترین آنها پست معاونت فنی وزارت مذکور در کابینه دکتر مصدق بود. ایشان در جریان سالهای آشوب و کودتا دستگیر و به سازمان سه کرج منتقل شد.
دکتر مصاحب در سال ۱۳۰۹ مجله ریاضیات مقدماتی و عالی را تأسیس کرد و یازده شماره از آن را منتشر نمود. در سال ۱۳۴۰ به خدمت در بخش ریاضی دانشسرای عالی پرداخت و سال ۱۳۴۲ به درجه استادی نائل آمد. وی برای جبران کمبود استاد ریاضی در کشور، به تأسیس موسسه ریاضیات در دانشسرای عالی در سال ۱۳۴۵ اقدام نمود که هم اکنون نیز تجت عنوان مؤسسه تحقیقات ریاضی دکتر مصاحب در دانشگاه تربیت معلم تهران به فعالیت ادامه می‌دهد.
او مؤسس پروژه دایرةالمعارف فارسی بود که گفته می‌شود از حیث ویراستاری و دقت و نمونه خوانی از دقیق‌ترین آثاری است که به فارسی منتشر شده است. این دائره المعارف با کمک دکتر همایون صنعتی‌زاده، مدیر وقت انتشارات فرانکلین پا گرفت، اما به دلیل کنار زده شدن صنعتی زاده امکان ادامه همکاری مصاحب هم فراهم نشد و در نهایت دائره المعارف مصاحب بعد از 40 سال از سوی انتشارات امیر کبیر منتشر شد، در حالی که به نوشته عبدالحسین آذرنگ«به جز جلد نخست که تمامی مراحل کار آن زیر نظر مصاحب انجام شد، تا حرف ف جلد دوم را نیز با اشراف مصاحب انجام شد،اما از حرف ف تا پایان جلد دوم و کل جلد سوم را مصاحب در انتشار نهایی آن دخالتی نداشت»
از مصاحب کتاب‌های آنالیز ریاضی، که نخستین اثر در زمینه آنالیز است و به زبانهای بین‌المللی ترجمه شده است،فرهنگ جغرافیایی؛ مدخل منطق صورت در دایره المعارف فارسی؛ تئوری مقدماتی اعداد، به بازار کتاب عرضه شده است که کتاب آخری پس از انقلاب موفق به اخذ جایزه بهترین کتاب سال در ایران شد.
دکتر مصاحب بعد از کناره گیری از دائره‌المعارف فارسی تمام عمر خود را وقف ریاضیات کرد به نحوی که در 21 مهر سال 1358، هنگامی که،آخرین صفحه کتاب عظیم تئوری مقدماتی اعداد را از چاپخانه گرفته بود، غلط‌گیری نمود، سکته کرد و از صندلی فرو افتاد در حالی که قلم در میان انگشتان فسرده وی جای داشت.
